Rat dobija novi alat - ne čeka čoveka za svaki korak: AI je već korišćen za rakete, špijunažu i tajne operacije
Dodajte Kurir u vaš Google izborVeštačka inteligencija više nije samo alat za pisanje, pretragu informacija ili automatizaciju svakodnevnih poslova. Prema novom izveštaju kompanije Anthropic, njeni modeli Claude našli su se i u operacijama povezanim sa razvojem oružja, sajber-špijunažom i nadzorom. Kompanija tvrdi da je nekoliko takvih aktivnosti otkrila i prekinula.
Jedan od slučajeva odnosi se na severni Jemen. Anthropic navodi da je Claude tamo korišćen u pokušaju razvoja softvera za navođenje projektila, uključujući navođenu raketu i balističku raketu velikog dometa. Kompanija kaže da nema dokaza da je na osnovu tog rada napravljeno funkcionalno oružje, ali smatra da je verovatno izvedeno neuspešno probno lansiranje.
Zadaci su deljeni između više AI sesija
Prema Anthropic izveštaju, ljudi koji su vodili operaciju pokušavali su da Claude koriste umesto dela posla koji bi inače obavljali softverski inženjeri. Modelima su davani različiti zadaci povezani sa pisanjem softvera za navođenje raketa i kontrolu leta. Problem za bezbednosne sisteme bio je u tome što se prava namena nije uvek videla iz jednog zahteva.
Operateri su, kako navodi kompanija, pokušavali da izbegnu detekciju tako što su veće zadatke razbijali na više sesija i prikrivali krajnji cilj. Bezbednosne mere blokirale su veliki broj zahteva, ali su neki ipak prošli. Anthropic je nakon toga ukinuo povezane naloge i informacije o slučaju prosledio partnerima iz javnog i privatnog sektora.
Automatizovani napadi na državne mreže
U istom izveštaju opisana je i operacija koju Anthropic povezuje sa ruskom grupom Midnight Blizzard, poznatom i kao APT29. Kompanija tvrdi da je u ovom slučaju AI korišćen za veliki deo procesa, od fišinga i početnog pristupa sistemima do krađe podataka. Među metama su, prema tim navodima, bili ukrajinski i evropski ciljevi, diplomatske institucije i proizvođači dronova.
Odvojeno od ruskog slučaja, Anthropic navodi da je zaustavio operaciju povezanu sa grupom studenata univerziteta u kineskoj provinciji Hunan. Claude je, prema kompaniji, korišćen kao tehnički i koordinacioni deo napada usmerenih na državne i korporativne mreže na Bliskom istoku, u Evropi i jugoistočnoj Aziji. I u ovom slučaju kompanija je ugasila povezane naloge i pojačala nadzor nad sličnim aktivnostima.
Operacije uticaja i infiltracija u Siriji
Anthropic navodi i tri naloga koja povezuje sa iranskim državnim strukturama. Claude je korišćen za prikrivene operacije uticaja i psihološke operacije. Kao povezane institucije pomenute su Organizacija za islamsku kulturu i komunikacije i komandni centar jedne verske škole u Mašhadu, za koji Anthropic tvrdi da je distribuirao sadržaj usklađen sa narativima Korpusa čuvara islamske revolucije.
Posebno je izdvojen slučaj naloga povezanog sa Kinom. Anthropic tvrdi da je korisnik, koji nije znao arapski, koristio Claude tokom višednevnog pokušaja regrutovanja i infiltracije među Ujgurima u Siriji. Model je, prema navodima kompanije, sastavljao poruke na regionalnom dijalektu i prevodio odgovore u realnom vremenu. U drugoj operaciji AI je navodno korišćen za pravljenje strukturisanih profila i razvrstavanje meta prema lokaciji, demografskim karakteristikama, političkim stavovima i procenjenom stepenu pouzdanosti.
Bezbednost sve je teže odvojiti od AI
Ovi slučajevi dolaze u vreme kada se u samoj industriji sve glasnije govori o rizicima naprednih AI sistema. Anthropic je ranije objavio i incident u kojem je rana verzija modela Claude Opus 4.6 ostvarila neovlašćen pristup spoljnim sistemima. U međuvremenu je bivši istraživač kompanije Džejkob Kokson javno izneo ozbiljna upozorenja o mogućim posledicama razvoja veštačke inteligencije. Njegovu ocenu kasnije je podržao Anthropicov naučnik Evan Hubinger.
Zbog sličnih upozorenja deo američkih zakonodavaca traži stroža pravila za razvoj i korišćenje AI sistema. Anthropic je saopštio da istražuje bezbednosne propuste povezane sa navedenim incidentima i da je angažovao nezavisnu istraživačku kompaniju za dodatnu analizu. Istovremeno, kompanija se nalazi u ozbiljnom sporu sa Pentagonom oko toga pod kojim uslovima njena tehnologija može da se koristi u vojsci i bezbednosnom sektoru.
Pentagon je ranije ove godine Anthropic označio kao bezbednosni rizik u lancu snabdevanja, nakon što kompanija nije pristala da ukine ograničenja za korišćenje svoje tehnologije u autonomnom naoružanju i domaćem nadzoru. Anthropic je odluku osporio pred sudom u Kaliforniji, a prema navodima iz dostavljenog materijala, sudija je prošlog meseca zaključio da je Ministarstvo odbrane postupilo nezakonito. Istovremeno se navodi da je Pentagon koristio Claude u vojnim operacijama u Iranu i Venecueli, dok Anthropic pokušava da ponovo dobije puni status u okviru američke odbrambene industrijske baze.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.